推理大模型1年内就会撞墙，性能无法再扩展几个数量级 | FrontierMath团队最新研究
推理大模型1年内就会撞墙，性能无法再扩展几个数量级 | FrontierMath团队最新研究一年之内，大模型推理训练可能就会撞墙。
来自主题: AI资讯
8016 点击 2025-05-14 11:08
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
搜索
一年之内，大模型推理训练可能就会撞墙。
Epoch AI高级研究员预测：2030年实现人类水平的AI的可能性至少10%。他认为AI从监督学习到GenAI，模型范式转变迅捷，预测AI只能从第一性原理出发。参考人类大脑，他估算了发现人类水平的AI需要的算力，得到相关结论。
全球有多少AI算力？算力增长速度有多快？在这场AI「淘金热」中，都有哪些新「铲子」？AI初创企业Epoch AI发布了最新全球硬件估算报告。
AGI正在到来，但代价是什么呢？Epoch AI预测：如果AGI完全替代人类劳动，将使人类工资彻底崩溃，跌破生存所需最低水平！到2024年，这个概率将达到1/3。奥特曼也预言：下一代人类，注定被AI碾压。
Ilya「预训练结束了」言论一出，圈内哗然。谷歌大佬Logan Klipatrick和LeCun站出来反对说：预训练还没结束！Scaling Law真的崩了吗？Epoch AI发布报告称，我们已经进入「小模型」周期，但下一代依然会更大。
让大模型集体吃瘪，数学题正确率通通不到2%！
Epoch AI推出数学基准FrontierMath，目前前沿模型测试成功率均低于2%！OpenAI研究科学家Noam Brown说道：「我喜欢看到新评估的前沿模型通过率如此之低。这种感觉就像一觉醒来，外面是一片崭新的雪地，完全没有人迹。」或许，FrontierMath测试成功率突破的那一天，会是AI发展过程中一个全新的里程碑。
大型语言模型（LLM）最近在各种数学benchmark上疯狂刷分，动辄90%以上的正确率，搞得好像要统治数学界一样。然而，Epoch AI看不下去了，联手60多位顶尖数学家，憋了个大招——FrontierMath，一个专治LLM各种不服的全新数学推理测试！结果惨不忍睹，LLM集体“翻车”，正确率竟然不到2%！
训练数据的数量和质量，对LLM性能的重要性已经是不言自明的事实。然而，Epoch AI近期的一篇论文却给正在疯狂扩展的AI模型们泼了冷水，他们预测，互联网上可用的人类文本数据将在四年后，即2028年耗尽。